Google 寫了一篇介紹在 Cloud Run 上怎麼建立 AI agents:Host AI apps and agents on Cloud Run。看起來要先在 Cloud Run 上部屬 LangGraph 或是 Agent Development Kit (ADK)。
花了點時間看文件,這兩個框架的用途是能夠方便地建立、部屬以及管理 AI Agent。因為 ADK 主要用來支援 Google 生態系,且有提供部屬到 Cloud Run 的文件,那就先來用看看。
先參考 Agent Development Kit文件來設定環境,在第三步 Set up the model 這邊因為想要放上 Google Cloud 所以選擇 Gemini - Google Cloud Vertex AI 這個選項:
這邊參考 Gemini API in Vertex AI quickstart 設定的時候會需要產生一組 API key :
然後參考 Get a Google Cloud API key 這邊第一步:
因為我自己的帳號是個人沒有組織管理,沒辦法調整 Policy,所以要照 Configure application default credentials 直接執行指令,就不用照他設定了:
gcloud auth application-default login
不過在 adk web
把網頁介面架起來開始對話的時候遇到 Publisher Model not found
錯誤:
問了 Gemini 發現是地區問題,文件上預設的模型是 gemini-2.0-flash
我設定的地區是 GOOGLE_CLOUD_LOCATION=asia-east1
,因為這個模型沒有在 asia-east1
也就是台灣區佈署所以才會噴錯,參考一下模型佈署的狀況 Deployments and endpoints :
欸不是,所以 Gemini 2.0 都沒有阿,所以我最後設定:
model="gemini-2.5-flash"
GOOGLE_CLOUD_LOCATION=asia-northeast1
目前範例只能問 AI 紐約時間,其他的會直接說不知道。光是建立範例程式就花了不少時間,但至少成功建立出一個環境可以寫邏輯讓 AI 執行。
明天再繼續照著文件部屬到 Cloud Run 看看。